Instance Normalization
# Tag:
- Source/KU_ML2
Instance Normalization
CNN에서 효율적인 Normalization기법으로, 각 이미지 channel에 대해 독립적으로 평균과 표준 편차를 계산해 정규화한다.
:when ,
는 channel을 의미하며, 같은 channel 내에 있는 데이터에 대해서 학습하는 것이다.
- 각 채널은 데이터의 특정 패턴을 학습하므로, 각 channel의 특성을 독립적으로 보존하는 것이 학습에 있어 유리하다.
- 각 채널의 평균과 표준 편차를 조정해 style 정보(명도, 색조 등)을 정규화 할 수 있다.
- Batch Normalization에 비해 channel 별로만 계산하므로 compuation cost가 적다.
- 공간내에서의 위치의 정규화가 진행되므로, 위치 간 통일성이 강화된다.